Armēnijas Nacionālā galerija tika dibināta 1921. gadā ar Armēnijas PSR dekrētu kā Valsts muzeja mākslas nodaļa. Kolekcijas kodolu veidoja nacionalizētā Maskavas Armēnijas kultūras centra (t.s. Lazareva institūta) mākslas kolekcija. Daudzi muzeja kolekcijas priekšmeti ir armēņu diasporas ziedojumi. 1935. gadā muzejs kļuva par atsevišķu struktūru. 1947. gadā tā tika nosaukta par Armēnijas Valsts gleznu galeriju, bet 1991. gadā tā ieguva mūsdienu nosaukumu.